Năm lên 6 tuổi, Martin được bố mẹ tặng một cây đàn piano và nó khiến ông trở nên đam mê âm nhạc. 8 tuổi, ông thuyết phục được gia đình cho ông đi học một khóa piano, tuy nhiên khóa học chỉ kéo dài 8 buổi sau khi thầy giáo và mẹ ông có những tranh cãi về việc học. Martin nói, sau thời gian đó, ông vẫn tự mày mò học đàn[2]. Ông học trường St. Joseph ở Highgate, sau đó là trường St Ignatius', nơi ông được nhận học bổng. Chiến tranh nổ ra, gia đình ông rời London và ông theo học tại trường Ravensbourne ở Bromley.

Dù rằng ông thực sự quan tâm tới âm nhạc, "tôi rất vui nếu ai bảo rằng tôi là Rachmaninov thứ hai", song ông không chọn âm nhạc là sự nghiệp của mình. Ông làm việc một thời gian ngắn với việc sát hạch ngân sách tại War Office với bậc 3, chủ yếu là việc sắp giấy tờ và pha trà nước[3]. Năm 1943, ông gia nhập Fleet Air Arm của Hải quân Hoàng gia Anh, trở thành hoa tiêu rồi đô đốc. Chiến tranh thế giới thứ hai kết thúc khi ông chưa tham vào bất kể một trận đánh nào và ông hoàn thành nghĩa vụ vào năm 1947. Được Sidney Harrison động viên, ông nộp đơn vào Trường Nhạc kịch Guildhall và học tại đó ở khoa piano và kèn oboa từ năm 1947 tới năm 1950. Ông thực sự quan tâm tới Rachmaninov và Ravel, cũng như là Porter và Dankworth. Thầy giáo kèn oboa của ông là Margaret Eliot, mẹ của Jane Asher, người sau này là bạn gái của Paul McCartney.

Ngày 3 tháng 1 năm 1948, George Martin cưới Sheena Chisholm, người cùng ông có hai người con trai, Alexis và Gregory. Sau này, ông cưới Judy Lockhart-Smith (ngày 24 tháng 6 năm 1966) và có hai người con Lucy và Giles.